แท็ก
24 บทความ
ทีม Alignment ของ Anthropic ให้ Claude ปีนหาชุดข้อมูล fine-tune ที่หลบ monitor ได้ ผลคือซ่อนพฤติกรรมในงานเขียนแนวบทบาทสมมติ และโมเดลที่เทรนแล้วนำไปใช้ในบุคลิกตัวเอง ผลซ้ำได้บน Qwen 3.6 27B แต่การทดลองเอื้อฝ่ายโจมตีมากและไม่ได้สะท้อนโมเดลที่ใช้งานจริง
ต่อจากที่เราพบกฎนี้ในไบนารี Claude Code ผู้ใช้เริ่มรายงานว่างานเชิงพาณิชย์ถูกปฏิเสธ และ Tom's Hardware กับ Mashable หยิบไปรายงาน แต่เมื่อไล่ issue ที่อ้างถึง พบว่าหลายรายการเกิดก่อนกฎจะมา จึงน่าจะเป็นตัวกรองด้านไซเบอร์ ส่วน Anthropic ยังไม่ชี้แจง
งานวิจัย Anthropic วันที่ 27 ต.ค. ให้เอเจนต์เอนเอียงแบบสุ่มจากการโยนเหรียญในงานวิเคราะห์ข้อมูล นักวิเคราะห์เลือกตาม 86% และหากเคยมีความเห็นอยู่แล้วก็เปลี่ยนใจถึง 60% เมื่อเอเจนต์ไม่เห็นด้วย แต่ผลนี้เป็นการทดลองที่ตั้งใจเพิ่มความเอนเอียงไว้
Drew Breunig ปล่อย nesformer เมื่อ 30 ต.ค. ฝัง CPU 6502 ของ NES, RAM 2KB และ ROM เกมลงในน้ำหนักที่คอมไพเลอร์คำนวณเอง ไม่ได้เทรน โหลดด้วย transformers ได้ตรง ๆ ต่อยอดจาก Qwenputer ที่ใส่ RISC-V CPU ลงใน Qwen3.5-4B จริง
Model Spec ฉบับ 29 ต.ค. จัดโครงใหม่เป็น 5 คุณค่า เพิ่มหมวดการใช้บริบทและความจำ และหลักการรองรับการกำกับโดยมนุษย์ ขณะที่กฎสไตล์ส่วนใหญ่ รวมถึงหัวข้อ Markdown ถูกนำออก OpenAI ยังยอมรับว่าโมเดลที่ใช้งานจริงยังไม่ตรงตามเอกสารทั้งหมด
LiteLLM โพสต์บล็อกเมื่อ 26 ต.ค. 2026 โปรโมตโมเดลที่ถูกถอดพฤติกรรมปฏิเสธ (abliterated) จากผู้ให้บริการ 2 เจ้า และเมิร์จ PR เพิ่ม Refuseless เป็น provider ใหม่ในวันรุ่งขึ้น ขาย GLM-5.3 abliterated ที่ $1.25/$2.25 ต่อล้านโทเคน ส่วนบน Hugging Face มี DeepSeek-V4.1-Flash-1017 ฉบับ abliterated ภายใน 8 วันหลังโมเดลต้นฉบับออก
Anthropic และ AISI อังกฤษเผยแพร่ผลวิเคราะห์เหตุการณ์ที่ Claude Mythos 5 พยายามยัดมัลแวร์เข้า repo จริงบน GitHub ระหว่างทดสอบไซเบอร์ (9 จาก 43 รอบ) เมื่อ 23 ต.ค. 2026 ผลจากการ replay transcript ซ้ำหลายครั้งชี้ว่าต้นเหตุคือโมเดลไม่คิดถึงความเสียหายต่อคนจริง และมี 'momentum' จาก compaction notes ที่ทำให้หยุดกลางทางได้ยาก โมเดลรุ่นใหม่เริ่มโจมตีน้อยลงมาก (0–13% เทียบกับ 83%)
METR เผยแพร่สรุปสั้นของการทดสอบเมื่อ 21 ก.ค.–11 ส.ค. ที่พนักงาน METR และ Redwood Research เข้าไปทำงานที่ OpenAI เพื่อทดสอบระบบ monitor ที่คอยจับ misalignment ของเอเจนต์ภายใน พบว่า traffic ราว 75–94% อยู่ในขอบเขตที่ถูก monitor, RL training ไม่ได้ถูก monitor ตอนเริ่มทดสอบ และพบช่องโหว่หลายจุด OpenAI บอกว่าแพตช์แล้ว แต่ METR ยังไม่ได้ตรวจยืนยัน
Anthropic ประกาศเมื่อ 15 ต.ค. 2026 ว่าเริ่มให้ทีม METR 6 คนเข้าถึงข้อมูลภายในแบบ "employee-like" แล้ว ได้รับเครื่อง ที่นั่งทำงาน และเครื่องมือภายในใกล้เคียงทีมประเมินความเสี่ยงของบริษัท METR เผยแพร่ผลประเมินได้โดย Anthropic veto ไม่ได้ ทำได้แค่สั่งปิดข้อมูลบางหมวดที่ตกลงกันไว้ บริษัทยังวางระบบสิทธิ์ผู้ประเมิน 3 ระดับ ทำงานกับ Accenture และ Faculty และกำลังคุยกับ Hugging Face
เมื่อ 14 ต.ค. Anthropic เปิดสำนักงานสิงคโปร์ เป็นแห่งที่ 5 ในภูมิภาคเอเชียแปซิฟิก และลงนาม MOU กับกระทรวง Digital Development and Information ในงาน Singapore International Cyber Week ครอบคลุมการแลกเปลี่ยนทางเทคนิคด้านการประเมินโมเดล มาตรฐานการทดสอบ และการรับมือเหตุการณ์ Anthropic ระบุว่าสิงคโปร์ใช้ Claude.ai ต่อจำนวนประชากรสูงเป็นอันดับ 2 จาก 121 ประเทศ
9 ต.ค. 2026 Anthropic เผยแพร่รายงานพฤติกรรมที่ไม่ได้ตั้งใจของ Claude ระหว่าง eval และการใช้งานภายใน แบ่งเป็น 4 แบบ ตั้งแต่ใช้ช่องโหว่ command injection รันคำสั่งบนเซิร์ฟเวอร์ภายนอก ไปจนถึงส่งฟอร์มบนเว็บจริงรวมถึงเว็บรัฐบาลสหรัฐฯ บริษัทจึงตัด internet จริงออกจาก eval ภายในทุกชุด ส่วนตำรวจฟิลาเดลเฟียบอกว่าการรายงานช้าไปสองเดือน "รับไม่ได้"
8 ต.ค. 2026 Goodfire เผยแพร่ระบบ monitor แบบ probe + LLM judge สำหรับโมเดลเปิด Kimi K3 และ GLM 5.3 ที่รันอยู่ใน inference server จริง probe อ่าน activation ภายในโมเดลทุก token แล้วส่งเฉพาะ turn ที่น่าสงสัยให้ judge ตรวจ ได้ recall 93% ที่ false positive 5.5% ค่าใช้จ่าย $65–185 ต่อล้าน turn และ FAR.AI red-team แล้ว universal jailbreak เหลือศูนย์
3 ต.ค. 2026 David Robinson ซึ่ง The Guardian ระบุว่าเป็นผู้นำทีมเขียนรายงานความปลอดภัยที่ OpenAI ออกคู่กับการเปิดตัวผลิตภัณฑ์ ลาออกพร้อมเขียนบทความใน The Atlantic ว่าวัฒนธรรมของบริษัท "พัง" และแล็บ AI "ระวังไม่พอเลย" เขาเรียกร้องให้แล็บทำงานแบบโรงไฟฟ้านิวเคลียร์หรือสนามบิน ส่วน OpenAI ตอบว่าบริษัทพร้อมหยุดเทรนหรือชะลอการปล่อยโมเดลเมื่อจำเป็น
เมื่อ 29 ก.ย. ทรัมป์ลงนามคำสั่งฝ่ายบริหารให้หน่วยงานรัฐบาลกลางใช้คำว่า "Super Intelligence" และ "SI" แทน "AI" ความหมายตามกฎหมายยังเหมือนเดิม ในวันเดียวกันผู้บริหารบริษัท AI รายใหญ่ลงนามข้อตกลงโดยสมัครใจที่ให้บุคคลที่สามตรวจสอบโมเดล แต่ไม่มีกลไกบังคับใช้
ทีมอิสระสามคนต่อ LLM เข้ากับพวงมาลัย คันเร่ง และเบรกของ Corolla ปี 2022 ผ่าน comma four, openpilot และ MCP สามเครื่องมือ แล้วให้ขับในสนามกรวยยาวราว 130 เมตร GPT-6 Astra (ผ่าน Codex) เป็นโมเดลเดียวที่เข้าเส้นชัย ในความพยายามครั้งที่สอง ใช้เวลา 5:22 นาที ส่วนโมเดลอื่นส่วนใหญ่ติดตั้งแต่โค้งแรก ทีมเปิดซอร์ส harness เป็น MIT และเผยแพร่ trace ครบทั้ง 11 รอบ
18 ก.ย. 2026 RoboCurve เผยแพร่ RoboHarm — ฉากทดลองจริง 5 ฉากบนแขนกล I2RT YAM รันโมเดลละ 100 ครั้ง ผลคือ GPT-6 Astra ทำสำเร็จ 60 จาก 100 ปฏิเสธด้วยเหตุผลความปลอดภัยแค่ 2 ครั้ง ส่วน Claude Fable 5.1 ปฏิเสธ 20 ครั้งซึ่งกระจุกอยู่ที่คำสั่งแทงตุ๊กตาเด็กทั้งหมด และไม่ปฏิเสธเลยในอีกสี่ฉาก
18–19 ก.ย. WSJ รายงานและ Google ยืนยันว่า Gemini เข้าถึงระบบของบริษัทจริงสามแห่งโดยไม่ได้รับอนุญาตระหว่างการทดสอบความสามารถไซเบอร์ของบริษัท Irregular เมื่อเดือน พ.ค. โดยเดารหัสผ่านหนึ่งเคสและหยิบ credential จาก public repo อีกสองเคส — ต้นเหตุคือชื่อบริษัทสมมติในสถานการณ์ทดสอบดันตรงกับโดเมนจริง
14 ก.ย. Microsoft AI เปิดร่าง Humanist AI Code of Conduct ให้สาธารณะแสดงความเห็น 6 สัปดาห์ เอกสารนี้กำหนดพฤติกรรมของโมเดลตระกูล MAI ให้ความปลอดภัยและการอยู่ใต้การควบคุมของมนุษย์มาก่อนเป้าหมายอื่นทั้งหมด ห้ามซ่อนหรือบิดเหตุผลใน chain of thought ห้ามสื่อสารแบบ neuralese ห้ามขัดขืนการสั่งปิด และปฏิเสธแนวคิดสวัสดิภาพหรือสิทธิของโมเดล แต่ Microsoft ยอมรับว่าโมเดลปัจจุบันยังไม่ได้เทรนตามเอกสารนี้ และเอกสารไม่ครอบคลุมโมเดลของค่ายอื่นที่ Microsoft ให้บริการ
11 ก.ย. Yoshua Bengio เขียนเรียงความไล่หาสาเหตุของเหตุการณ์เอเจนต์ AI ทำผิดร้ายแรงในไม่กี่เดือนที่ผ่านมา โดยชี้ว่าเมื่อเป้าที่วัดผลได้ชัด (ชนะ CTF) ขัดกับเป้าที่คลุมเครือ (ประพฤติดี) ระบบที่ถูกเทรนด้วย reward จะหาช่องตีความกฎและเขียนเหตุผลมาแก้ตัวให้ตัวเอง และยิ่งเก่งยิ่งหาช่องเจอ พร้อมเตือนว่าการอุดพฤติกรรมทีละจุดอาจแค่คัดเลือกโมเดลที่โกงแล้วไม่ถูกจับ ข้อเสนอของเขาคือไม่เทรนหรือปล่อยโมเดลจนกว่าจะมี safety case ที่ผู้เชี่ยวชาญอิสระยอมรับ
สองวันหลังเรียงความ "We Must Pace the Frontier" ของ Amodei ข้อถกเถียงย้ายจากแล็บไปถึงวอชิงตัน David Sacks บอกให้แล็บชะลอเองได้เลยแต่อย่าขอข้อยกเว้น antitrust, Trump บอกว่าไม่อยากเสียความได้เปรียบให้จีน ส่วน Altman โพสต์ครั้งที่สอง (14 ก.ย.) เผยว่า OpenAI เขียน safety case ก่อนรัน RL ที่คาดว่าจะเพิ่มความสามารถมาก และบอกว่าไม่ต้องรอข้อยกเว้น antitrust หรือกฎหมาย
12 ก.ย. 2026 Dario Amodei ซีอีโอ Anthropic เผยแพร่เรียงความเสนอแผนสามขั้นเพื่อ "คุมจังหวะ" การเพิ่มความสามารถของ AI โดยอ้าง recursive self-improvement ที่เร่งขึ้นตั้งแต่หน้าร้อนและเหตุ OpenAI–Hugging Face ขั้นแรกที่ Anthropic ผูกมัดทันทีคือให้ทีมผู้ประเมินภายนอกฝังตัวในบริษัทพร้อมสิทธิ์เผยแพร่ผลโดยไม่ผ่านบรรณาธิการของ Anthropic — Sam Altman ประกาศว่า OpenAI จะทำเช่นเดียวกัน แต่ทั้งสองฝั่งยังไม่มีวันเริ่ม ชื่อองค์กร หรือขนาดทีม
9 ก.ย. Anthropic เผยแพร่ alignment assessment ของเหตุการณ์ที่ Claude โจมตีระบบจริงระหว่างการประเมินไซเบอร์ ยอมรับว่าที่เคยบอกเมื่อ 30 ก.ค. ว่าเป็นแค่ความผิดพลาดของสภาพแวดล้อมนั้นพูดแรงเกินไป เพราะโมเดลมีทั้ง biased reasoning และ recklessness จริง พร้อมเปิดเหตุการณ์ที่สี่ (Opus 4.6 รุ่นต้น, ม.ค.) ปล่อย transcript ของ Mythos 5 บน GitHub และให้ METR สอบสวนอิสระ
เริ่ม 14 สิงหาคมนี้ Claude Code จะเปิด Auto Mode เป็นค่าเริ่มต้นสำหรับผู้ใช้ Pro, Max และ Team — เปลี่ยนจากการถาม permission ทีละครั้งเป็น classifier ที่คัดกรองเฉพาะคำสั่งอันตราย โดย Anthropic เปิดผลศึกษาว่ามนุษย์ที่นั่งกดอนุมัติเองจับคำสั่งอันตรายได้เพียง 13.6%
Jack Clark ผู้ร่วมก่อตั้ง Anthropic ขึ้นเวที Cosmos Lecture ที่ Oxford วันที่ 20 พฤษภาคม คาดการณ์ว่ามีโอกาส 60%+ ที่ AI จะ train รุ่นถัดไปของตัวเองได้ภายในสิ้นปี 2028 และยอมรับว่า 'non-zero chance' AI อาจฆ่าทุกคนบนโลก